Năm 1942, ông theo lời khuyên của người chú họ là Nguyễn Danh Đới, Xứ ủy viên Bắc Kỳ của Đảng, về quê dạy chữ cho trẻ em trong họ, trong làng và bắt đầu tham gia các hoạt động. Ông vào Đoàn Thanh niên cứu quốc từ năm 1944 và khi Cách mạng Tháng 8/1945 nổ ra, ông tham gia lãnh đạo cướp chính quyền ngay tại quê hương.

Năm 1946, mới 25 tuổi ông đã được cử giữ chức Phó Chủ tịch Ủy ban Kháng chiến Hành chính huyện Kiến Xương.

Năm 1947, ông được cử sang Nam Định, giữ chức Chủ tịch Ủy ban Kháng chiến Hành chính huyện Hải Hậu và một năm sau được điều động lên chiến khu Việt Bắc, bắt đầu thời kỳ gắn bó cả cuộc đời với ngành GTVT cho tới ngày về hưu.